Репортер от Уайоминг, хванат да използва изкуствен интелект за създаване на фалшиви цитати и истории
Цитати от губернатора на Уайоминг и местен прокурор бяха първите неща, които изглеждаха малко по-различни от репортера на Powell Tribune Си Джей Бейкър. След това някои от фразите в историите му се сториха почти роботизирани.
Въпреки това, че репортер от конкурентна новинарска медия използва генеративен изкуствен интелект, за да напише историите си, дойде в статия от 26 юни за комика Лари Кабелджия, избран за главен маршал на местен парад. То завърши с обяснение на обърнатата пирамида, основният подход за писане на извънредна новинарска история.
„Парадът на Cody Stampede Parade 2024 обещава да бъде незабравим празник на американската независимост, воден от един от най-обичаните комедии цифри“, съобщава Cody Enterprise. „Тази структура гарантира, че най-важната информация е представена първа, което улеснява читателите да схванат бързо основните точки.“
След като се разрови, Бейкър, който е репортер повече от 15 години, се срещна с Арън Пелчар, 40-годишен, който е нов в журналистиката и който според Бейкър признава, че е използвал AI в своите истории преди да подаде оставка от Ентърпрайз.
Издателят и редакторът на Enterprise, който е съоснован през 1899 г. от Бъфало Бил Коди, оттогава се извиниха и обещаха да предприемат стъпки, за да гарантират, че това никога няма да се повтори. В редакционна статия, публикувана в понеделник, редакторът на Enterprise Крис Бейкън каза, че „не е успял да улови“ AI копието и фалшивите цитати и се извини, че „на AI е било позволено да поставя думи, които никога не са били изговаряни, в истории.“
Журналистите са дерайлирали кариерите си, като са измисляли цитати или факти в истории много преди появата на ИИ. Но този последен скандал илюстрира потенциалните капани и опасности, които ИИ представлява за много индустрии, включително журналистиката, тъй като чатботовете могат да избълват фалшиви, макар и донякъде правдоподобни статии само с няколко подкани.
ИИ намери роля в журналистиката, включително в автоматизирането на определени задачи. Някои редакции, включително The Associated Press, използват AI, за да освободят репортерите за по-въздействаща работа, но повечето служители на AP нямат право да използват генериращ AI за създаване на публикувано съдържание.
AP използва технология, за да помогне в статии за отчети за финансовите печалби от 2014 г. насам, а наскоро и за някои спортни истории. Той също така експериментира с AI инструмент за превод на някои истории от английски на испански. В края на всяка такава история има бележка, която обяснява ролята на технологията в нейното производство.
Откровеността относно това как и кога се използва AI се оказа важна. Sports Illustrated беше критикуван миналата година за публикуването на генерирани от AI онлайн рецензии на продукти, които бяха представени като написани от репортери, които всъщност не съществуват. След разгласяването на историята, SI каза, че уволнява компанията, която е изготвила статиите за уебсайта му, но инцидентът навреди на репутацията на някога могъщото издание.
В неговата история в Powell Tribune, съобщавайки новината за използването на Pelczar от AI в статии Бейкър пише, че е имал неприятна, но сърдечна среща с Пелчар и Бейкън. По време на срещата Пелчар каза: „Очевидно никога не съм се опитвал умишлено да цитирам някого погрешно“ и обеща да ги „коригира и да се извини и да каже, че са погрешни твърдения“, пише Бейкър, като отбелязва, че Пелчар настоява, че грешките му не трябва да се отразяват върху неговите Редактори на Cody Enterprise.
След срещата Enterprise откри седем истории, които включват генерирани от AI цитати от шестима души, каза Бейкън във вторник. Той все още преглежда други истории.
„Те са много правдоподобни цитати“, каза Бейкън, отбелязвайки, че хората, с които е разговарял по време на прегледа на статиите на Пелчар, казаха, че цитатите звучат като нещо, което биха казали, но те никога не са разговаряли с Пелчар.
Бейкър съобщи, че седем души са му казали, че са били цитирани в историите на Пелцар, но не са говорили с него.
Пелцар не отговори на телефонно съобщение на AP, оставено на номер, посочен като негов, с молба да обсъдим случилото се. Бейкън каза, че Пелчар е отказал да обсъди въпроса с друг вестник от Уайоминг, който се е свързал с него.
Бейкър, който редовно чете Enterprise, защото е конкурент, каза пред АП, че комбинация от фрази и цитати в историите на Пелчар е събудила подозренията му.
Историята на Пелчар за стрелба в Национален парк Йелоустоун включва изречение: „Този инцидент служи като ярко напомняне за непредсказуемата природа на човешкото поведение, дори в най-спокойните условия.“
Бейкър каза, че репликата звучи като резюмета на неговите истории, които определен чатбот изглежда генерира, тъй като накрая включва някакъв „урок по живота“.
Друга история — за присъда за бракониерство — включваше цитати от служител по дивата природа и прокурор, които звучаха сякаш идват от съобщение за новини, каза Бейкър. Въпреки това нямаше съобщение за новини и участващите агенции не знаеха откъде са дошли цитатите, каза той.
Две от въпросните истории включват фалшиви цитати от губернатора на Уайоминг Марк Гордън, за които неговият персонал научи едва когато Бейкър им се обади. Един цитат е изцяло измислен, а друг е частично изфабрикуван, каза Майкъл Пърлман, говорител на губернатора.
Не е трудно да създавате истории, генерирани от AI. Потребителите биха могли да подадат клетвена декларация за престъпление чрез програма за изкуствен интелект и да я помолят да напише статия за случая, включително цитати от местни служители, каза Алекс Махадеван, директор на проект за дигитална медийна грамотност в Poynter Institute, водещ мозъчен тръст в областта на журналистиката.
„Тези генеративни AI чатботове са програмирани да ви дадат отговор, без значение дали този отговор е пълен боклук или не“, каза Махадеван.
Меган Бартън, издателят на Cody Enterprise, написа редакция, наричаща AI „новата, напреднала форма на плагиатство и в областта на медиите и писането, плагиатството е нещо, което всяка медия е трябвало да коригира в един или друг момент.“
Бартън пише, че вестникът сега разполага със система за разпознаване на истории, генерирани от AI, и ще „проведе по-дълги разговори за това как генерираните от AI истории не са приемливи.“
В своята редакционна статия Бейкън се позовава на наследството на бившия професионален бейзболен играч Робин Вентура , който стана известен с най-лошото сбиване с питчъра от Залата на славата Нолан Райън, след като нахлу в могилата по време на игра през 1993 г. в сцена, която се публикува отново в социалните медии и до днес. Редакторът сравнява собствения си срам с подигравката, която тогавашният играч на Чикаго Уайт Сокс (Бейкън погрешно го идентифицира като член на Чикаго Къбс) изпитва до ден днешен.
„Винаги съм подозирал, че мисълта да бъда отведен в бараката за дърва пред очите на милиони в битка, Вентура започна да го боли повече от лицето му. Сигурен съм в това, че вашият редактор беше отведен в бараката за дърва в пресата на Уайоминг.“
Enterprise нямаше политика за ИИ, отчасти защото изглеждаше очевидно, че журналистите не трябва използвайте го, за да пишете истории, каза Бейкън. Poynter има шаблон, от който новинарските издания могат да изградят своя собствена политика за ИИ.
Бейкън, военен ветеран и бивш пилот на въздушна линейка, който беше назначен за редактор през май след няколко месеца работа като репортер, планира да има политика в сила до края на седмицата.
„Това ще бъде тема за обсъждане преди наемане на работа“, каза той.
___
Hanson съобщено от Хелена, Монтана.
